ParetoSaddler: Pareto-Guided Optimization of Agent Harnesses for Quality and Cost
ParetoSaddler：面向质量与成本的智能体 Harness 帕累托优化
🧭 Agent 系统调优 · 多目标优化
University College London · Pohang University of Science and Technology · Southern University of Science and Technology · Southeast University · Microsoft
分离中间候选提升与最终部署选择，用 Bayesian bootstrap Pareto 支持联合优化 Agent 质量与成本
📌 工作参考价值（4 点）
- 在 Agent/RAG 优化流程里引入 Pareto 支持度而非单目标打分：电商搜索/推荐 Agent 常需同时优化答案质量与 token/API 成本，中间迭代可先接受任一维度的可信提升，避免高质量但高成本的中间方案被过早丢弃。
- 用 Bayesian bootstrap 对多次执行结果做显著性过滤：LLM 评估噪声大，只保留跨 run 有稳定增益的 harness 候选，能减少线上实验浪费；可直接用于 prompt、tool 选择、中间件参数的 A/B 调优。
- 将候选提升与部署选择解耦，保留 Pareto 前沿而非单一 best：便于业务按实时的成本/质量约束从前沿选配置，例如大促期选低成本兜底、高价值用户选高质量方案。
- 可迁移到推荐 Agent 的 harness 搜索：固定模型权重，只优化 prompts/tools/control logic，通过重复执行与 Pareto 提升做低成本多目标迭代。